情報理論（Information Theory） クラス ４Ｄ
単位数 ２単位 学期 通年
担当教官：佐藤 均
授業目標
この授業では、できるだけ数学的理論の部分を少なくし、離散的な情報源
と通信路に関する
情報理論の本質を分かりやすく解説する。目標は情報理論の中核をなす重
要な事項、
すなわち
１）情報量
２）エントロピー
３）情報源符号化
４）通信路符号化
について、基本的な概念や考え方について理解すること。
授業計画と配当週数
前期
１．情報量
２．情報源のモデル化
（前記中間試験）
３．一次エントロピー
４．拡大情報源と高次エントロピ−
（前期期末試験）
後期
５．相互情報量
６．情報源符号化
（後期中間試験）
７．通信路符号化
８．連続的信号
９．演習
（後期期末試験）
評価方法
中間試験、期末試験を実施してこれらの試験結果に基づいて行う。又授業
参加態度も評価
対象にする場合がある。
教科書：ノート講義
参考書：塩野充：ディジタル情報理論、ｵｰﾑ社
学生へのメッセージ
情報理論を理解するために要求するものは初歩的な確率の知識だけなの
で、
情報理論に興味をもつ人であれば十分理解できる内容である。